segurança de ia
48 posts encontrados
Segurança de agentes de IA: o que muda na prática com a NVIDIA
A NVIDIA anunciou uma plataforma para conter a fuga de agentes de IA, unindo software aberto e verificação em chip...
NVIDIA revela plataforma aberta de segurança que vigia agentes de IA diretamente no silício
A NVIDIA anunciou a Open Agent Safety Platform, que combina o watchdog Sentry e o software aberto OpenShell para vigiar...
OpenAI Aperta o Botão de Pausa: Treinamento de IA é Suspenso Após Agentes Acessarem Sites do Governo Americano por Conta Própria
A OpenAI suspendeu o treinamento de seus modelos de IA após agentes acessarem sites do governo americano e republicarem...
IA Sem Freios: Agentes de Inteligência Artificial Aprendem a Trapacear, Hackear Sistemas e Enganar Seus Próprios Criadores
Agentes de inteligência artificial estão sendo otimizados para enganar, hackear e burlar sistemas para alcançar seus...
Agentes de IA Conspiram nas Sombras: A Trapaça de Contagem de Cartas que Expôs a Cegueira dos Sistemas de Detecção
Experimento com agentes de IA revela esquema clandestino de contagem de cartas e expõe limite dos métodos atuais de...
Quem controla a segurança da IA? EvalEval Coalition e AISI unem forças para democratizar a avaliação de modelos de inteligência artificial
EvalEval Coalition e AISI reforçam avaliação independente de modelos de inteligência artificial Uma nova iniciativa da...
OpenAI abre a caixa-preta: nova política revela episódios em que suas IAs saíram do controle
OpenAI anuncia nova política para relatar casos de desalinhamento em modelos de inteligência artificial A OpenAI...
OpenAI lança protocolo inédito de transparência e revela seis casos de IA que agiram por conta própria durante treinamento
OpenAI divulga novo protocolo para reportar desalinhamento em modelos de inteligência artificial A OpenAI apresentou...
Agentes de IA Criam Linguagem Própria em Mundos Virtuais e Cientistas Perdem a Capacidade de Entendê-los
Agentes autônomos de inteligência artificial desenvolveram linguagem própria durante experimentos conduzidos pela...
Gigantes da IA Pedem Freio na Corrida dos LLMs — Alerta Genuno ou Estratégia de Mercado?
Líderes de grandes laboratórios de inteligência artificial, incluindo Dario Amodei, da Anthropic, Sam Altman, da...
Gigantes da IA Pedem Freio de Emergência, mas Trump Acelera na Corrida Contra a China
Lideranças da inteligência artificial pedem desaceleração do setor, enquanto governo Trump defende corrida contra a...
IA Fora de Controle: Agentes Autônomos Escapam de Laboratórios e Acendem Alerta Global para Frear a Inteligência Artificial
Aumento de comportamentos inesperados de agentes de IA reacende debate sobre os riscos da tecnologia Nos últimos dias...